Cũng giống như sứ quân Nguyễn Siêu ở bên kia sông Hồng và sứ quân Lý Khuê ở phía bắc, Lữ Đường vốn là một thổ hào địa phương ở vùng Tế Giang.[2] Theo cuốn sách Miền quê Văn Giang của tác giả Trần Khắc Cần – Nhà xuất bản Văn Hoá Dân tộc - 2004: Khi giải thích về nguồn gốc huyện Văn Giang thì Tế Giang là tên một con sông. Sông Tế Giang lớn. Khi nước triều lên, càng rộng, nối sông Hồng với sông Thương, Sông Cầu, là đường vận tải thuỷ chở các sản vật miền xuôi lên vùng núi Bắc Giang, Thái Nguyên và ngược lại. Vào thế kỷ X, nơi đây là vùng đất bùn lầy, quanh co, địa thế hiểm yếu. Khi nhà Ngô suy yếu, không còn khả năng kiểm soát địa phương, Lữ Đường tự chiêu mộ và xây dựng lực lượng cát cứ, dựa vào địa thế hiểm yếu để cố thủ, chờ thời cơ nổi dậy.

Lữ Đường từng tấn công tới lãnh địa sứ quân Đỗ Cảnh Thạc. Truyền thuyết ở khu vực chùa Bối Am, thuộc phạm vi căn cứ Đỗ Động Giang xưa cho biết: Trước kia có một toán quân của Lữ Đường tự Lữ Tá Công, một trong Thập nhị sứ quân, bị quân của sứ quân Đỗ Cảnh Thạc vây hãm trong hang núi và bị chết đói hết cả.[3]

Đầu năm 968, sau khi chiếm lại vùng Bắc Ninh, vốn do các sứ quân Nguyễn Thủ Tiệp và Lý Khuê cát cứ, Vạn Thắng Vương Đinh Bộ Lĩnh chuyển quân về Siêu Loại, cho Đinh Liễn và Nguyễn Bặc đem 3.000 quân tiến đánh quân Lữ Đường. Lã Đường chủ trương tản quân để đánh du kích, đóng giữ chỗ hiểm yếu. Nếu quân Hoa Lư đi đông thì tránh mà đi lẻ là chặn đánh, tiêu hủy vũ khí quân lương, rồi lại bỏ chạy. Nguyễn Bặc bày kế cho quân Hoa Lư tập trung, tập kích quân lương tiếp vận của quân Lữ Đường. Trong vòng 7 ngày, vòng đai phòng thủ bên ngoài của quân Lữ Đường bị tiêu diệt hoàn toàn, Đinh Liễn, Nguyễn Bặc đánh sâu vào trung tâm, bắt được Lữ Đường, chém chết, thu phục hoàn toàn đất Tế Giang.

Theo thần tích đình Thắm, làng Đan Nhiễm, thị trấn Văn Giang thì Lữ Tá Đường bị tướng Chu Công Mẫn đánh bại, Lữ Tá Đường bị chém đầu, thủ cấp bị mang về thành Hoa Lư. Chu Công Mẫn là người làng Đan Nhiễm, nên xưa dân 2 làng Phụng Công và Đan Nhiễm thường có hiềm khích với nhau.

Tuy nhiên, theo thần phả Bùi Quang Dũng ở Thái Bình viết về một tướng nhà Đinh thì Lữ Đường sau hàng phục Đinh Bộ Lĩnh. Lữ Tá công cho quân canh giữ cẩn thận ở các thành quách của mình. Quân Tiên phong của Hoa Lư do Lưu Cơ và Bùi Quang Dũng chỉ huy ào ạt đánh chiếm Xích Đằng. Chỉ nửa canh giờ hơn 3.000 quân của ‘Ngụy Ngô chúa’ như hạt cát trong biển khơi, bị quân Hoa Lư tiêu diệt và bắt sống tức thì. Sẵn khí thế, quân Hoa Lư ‘quay giáo’ tấn công thành Tế Giang. Thấy lực lượng mình không thể ganh đua với quân Hoa Lư được, Lã Đường đã đem gần một vạn quân Tế Giang xin hàng quân của Đinh Bộ Lĩnh. Lữ Đường được Đinh Bộ Lĩnh phong tiếp là Lữ Tá công và cho làm tướng của mình. Khi Bộ Lĩnh tiến đánh Nguyễn Siêu ở Phù Liệt, Lữ Đường đã cùng Lữ Đình Đệ, Lữ Đình Kính, Lữ Đình Độ, Cao Mộc Cận… đem quân đến đánh Thịnh Liệt lập công to với Đinh Bộ Lĩnh.[4]